Невидимые правители. Люди, которые превращают ложь в реальность - Renee DiResta

просоциальное поведение (например, здоровое питание или отказ от курения) заразным в сообществе. 70. Платформы уже имеют внутренние метрики для определения того, являются ли сообщества про- или антисоциальными (вспомните обеспокоенность Facebook по поводу некоторых групп, появившихся после выборов 2020 года; они были отмечены не из-за их политики, а из-за растущей распространенности постов, пропагандирующих насилие). Алгоритмы рекомендаций и ранжирования ленты могли бы использовать этот сигнал. Возможно, стоит поэкспериментировать с прозрачностью и здесь: обнародование групповых рейтингов может увеличить определенные типы позитивного поведения. Проектирование, направленное на укрепление позитивных социальных норм, является растущей областью исследований. 71

Поскольку от рейтинга ленты зависит, сколько внимания - и потенциально дохода - получит тот или иной влиятельный пользователь, многие генералы и вечно обиженные считают алгоритм ранжирования ленты неким священным, а любые изменения - цензурой. Например, меры Facebook "Разбей стекло", сократившие объем политического контента после беспорядков 6 января, вызвали возмущение известных политических авторитетов, которые временно выпали из списка 10 самых популярных постов (после того как в течение нескольких месяцев сразу после выборов они занимали значительное место).72 В действительности нынешняя система - это просто механизм привлечения внимания и максимизации доходов, созданный коммерческой компанией; вы помните, что Facebook также изменил рекомендации в ленте Watch таким образом, что пострадали совершенно аполитичные видео Рика Лакса об измене супруги.

Люди, которые хотят видеть негатив, ненормативную лексику, глубоко полярные фигуры или посторонние СМИ, смогут это сделать, даже если алгоритм изменится; такие аккаунты все равно будут существовать. Но в качестве руководящего принципа следует руководствоваться принципом "свобода слова, а не свобода охвата". Размещение контента и продвижение контента - две разные вещи. 73 Даже во времена газетных киосков некоторые журналы, посвященные более взрослым темам, стратегически откладывались на полку. Платформы могут решить обеспечить свободу самовыражения, размещая у себя спорный или даже оскорбительный контент. Если пользователи активно следят за контентом, платформы, безусловно, могут размещать его в своих лентах. Но они не обязаны продвигать его на всех поверхностях, рекомендовать его потенциальным новым подписчикам или размещать против него рекламу. На самом деле, известный борец за свободу слова Элон Маск сделал этот принцип краеугольным камнем системы модерации контента Twitter в 2023 году 74 и закрепил его в коде рекомендательной системы своей компании, который он открыто опубликовал на Github. 75

Передайте больше контроля в руки пользователей

Есть и другой вариант: дать пользователям возможность самим явно определять предпочтения в отношении ленты, модерации и рекомендаций. Идея о повышении автономности пользователей муссируется уже несколько лет, часто в контексте устранения пузырей фильтров. В 2017 году Итан Цукерман, тогдашний директор Центра гражданских медиа при Массачусетском технологическом институте, создал инструмент под названием Gobo, который позволил пользователям просматривать свои ленты социальных сетей, руководствуясь собственными правилами модерации. 76 Хотите ли вы видеть больше постов от женщин? По семьям? В определенной категории? Это позволяет пользователям формировать ленту, соответствующую их интересам и ценностям, а не интересам и ценностям платформ.

"Middleware"-конфигурация третьими сторонами 77 - развивает эту идею. Любой человек может создать ленту, например, в виде списка, в который он добавляет участников, и публично поделиться ею, возможно, разделив доход с платформами в обмен на обеспечение устойчивой аудитории. Пользователи, в свою очередь, могут подписываться на ленты, курируемые редакторами с проверенной тематической экспертизой или даже определенной партийной принадлежностью.

Начинающая компания Bluesky, специализирующаяся на социальных сетях, уже предлагает такую возможность. Я пользуюсь ею и, помимо участия в типичном следовании, подписался на ленты с такими названиями, как "Садоводство", "Что такое наука?", "Урбанизм", "Дерьмопостеры" и "UkrainianView" (сообщения от людей из Украины). Я могу переключаться между ними в зависимости от настроения и видеть посты, связанные с этими темами, от людей, за которыми я даже не слежу. Возможности безграничны; более смелые пользователи могут следить за "OnlyPosts" (контент для взрослых типа OnlyFans), лентами искусства AI и целым рядом сообществ, основанных на идентификации личности. Люди, использующие эти инструменты, напрямую выражают свои интересы и намеренно выбирают, что (или кого) они хотят видеть; рекомендательные системы не интуитивны и не подталкивают.

Конечно, остается открытым вопрос о том, какое влияние окажет самоотбор в масштабе на враждующие фракции. Выберет ли большинство людей что-то экстремальное, что просто укрепит их уже сложившуюся реальность? Хотелось бы думать, что ответ будет отрицательным, но пока мы не знаем достаточно, чтобы ответить на этот вопрос. В любом случае, хотя этот сдвиг может усилить пользовательские реалии для некоторых, сочетание двух подходов - изменение настроек по умолчанию и предоставление большей власти пользователю - может уменьшить количество приманки и ерунды, которая непреднамеренно подталкивает восприимчивых.

Возвращение человека в контур в определенном качестве, например, через промежуточное программное обеспечение, потенциально может стать преобразующим фактором. Также как и сокращение масштабов алгоритмов. Возможно, пришло время избавиться от полностью автоматизированных функций трендов. Игра с ними - ключевой элемент в создании иллюзий большинства, проецировании ложного консенсуса и стимулировании злоупотреблений в отношении главных героев. Они являются благом для самых разрушительных элементов как мельницы слухов, так и машины пропаганды. В настоящее время они являются чистым негативом.

Однако идея о тенденциях остается ценной. Такие кризисы, как лесные пожары на Мауи в 2023 году, усилили потребность правительственных или местных СМИ в оперативном общении с общественностью в социальных сетях, а также в экстренных трансляциях. А спортивные болельщики любят делиться яркими моментами игры в командных трендах по воскресеньям - это временное виртуальное место сбора. Огромную пользу здесь могут принести промежуточное программное обеспечение или подходы, основанные на человеческом подходе. Чтобы поддерживать срочные новости и при этом минимизировать их недостатки, можно использовать модель курируемого новостного отдела, которую в прошлом применяли Twitter и Facebook.

Предоставление пользователям большего контроля над тем, что они видят на индивидуальном уровне или на уровне сообщества, имеет множество преимуществ: повышение самостоятельности, ощущение причастности, повышение чувства легитимности. Это относится и к модерации контента. Вместо модели "обслуживания клиентов", при которой централизованная власть регулирует пространство, это будет возвращением к управлению сообществом. 78 Пользователи могут выбрать определенные подходы к модерированию, которые соответствуют их ценностям. Они также могут подписываться на общие списки блокировки.

Сообщения, которые начинают становиться вирусными, могут быть поставлены в очередь на проверку фактов с помощью толпы, подобно функции Community Notes в Twitter. Действительно, проверка фактов с помощью толпы в некоторых случаях показывает большие перспективы: разнородные толпы, придерживающиеся разных точек зрения, часто демонстрируют чрезвычайно высокую точность или очень хорошо знают контекст конкретных событий. К сожалению, сама система Community Notes быстро стала политизированной (фракции играли в нее, выбирая для исправления твиты своих врагов; откровенно ложные твиты